What Did the Agent Actually Do? Evidence-Grounded Oversight for Long-Horizon Agents
Agent实际做了什么？面向长程Agent的基于证据监督方法
🧭 Agent行为监控与证据定位
Gaoling School of Artificial Intelligence, Renmin University of China · Kuaishou Technology
提出EBG训练无关方法，将证据按行为分组并构图为任务导向视图，提升长程Agent关键决策识别与证据定位
📌 工作参考价值（4 点）
- 在电商/广告Agent自动化流程中，可将EBG作为轻量监控层：把Agent动作日志按源链证据聚类为行为节点并构建依赖图，在审核UI中呈现任务导向视图，帮助运营快速定位需要人工验证的环节，避免阅读完整trace。
- EBG训练无关、即插即用，且证据定位增益在长上下文和不同超参数下保持稳定，可直接嵌入现有Agent监控模块，无需额外训练或微调，适合快速上线。
- 借鉴AgentMonBench的两个评估维度（需求-行为对齐、自主决策需验证的意识），在内部构建Agent可靠性测试集，重点考察Agent是否做了需求外的事、是否在关键节点主动请求确认。
- 对搜索/推荐系统中由LLM Agent生成的query或策略，可用EBG将决策与证据（用户日志、商品信息）显式链接，增强可解释性与审计能力，提升人对自动决策的信任。